DIVE: Embedding Compression via Self-Limiting Gradient Updates
DIVE：通过自限制梯度更新实现嵌入压缩
🧭 嵌入压缩 · 自限制梯度更新
University of Washington Tacoma
通过自限制 hinge triplet 损失和多头对比学习，在小样本下稳定压缩高维嵌入，全面超越现有适配器
📌 工作参考价值（4 点）
- 小样本场景下微调嵌入压缩模型常过拟合，可借鉴自限制 hinge triplet loss：一旦 triplet 满足 margin 约束即停止梯度，安全地限制对预训练空间的扰动，稳定训练过程。
- 利用多头投影构造隐式视角，对每个嵌入计算 NT-Xent 对比损失，为稀疏的 triplet 信号提供密集的自监督梯度。在推荐系统标注数据稀少时，此技巧能显著提升压缩表示质量。
- 采用轻量 residual adapter 实现维度压缩（仅 14M 参数），无需改动预训练 LLM 骨干，可直接嵌入线上向量检索链路，降低存储与计算成本。
- 在电商搜索或推荐中，当需要将高维商品/用户 embedding 压缩以加速检索时，DIVE 的损失设计可作为微调范式，避免压缩比例增大时性能断崖下跌。